Eén van de mooie dingen van technologie is dat het de grenzen van het menselijk kunnen opschuift. Een verrekijker haalt dichtbij wat veraf is, een gaspedaal versnelt onze verplaatsing. Steeds meer is mogelijk, maar de vraag is: is dat wel altijd wenselijk?

The times are changing

De camera’s die op elke straathoek hangen zien we al niet eens meer, zo’n normaal beeld is het. De impact van de camera’s is ook beperkt. Ze hangen op een vaste locatie en leveren vaak beelden van een relatief lage kwaliteit. Voor de gemaakte beelden is er een beperkte interesse. Ze worden op een harde schijf opgeslagen en alleen bekeken nadat er iets aan de hand bleek te zijn. Als er al direct op wordt meegekeken, dan gebeurt dat door een operator die maar een aantal camera’s tegelijkertijd in de gaten kan houden. Zo’n operator kan vast het doen en laten van één persoon volgen, maar hij kan onmogelijk het doen en laten van iedereen bijhouden.

Maar the times are changing. Niet langer is er één pixel voor een heel gezicht gereserveerd en de beelden uit de nacht zijn meer dan een verzameling zwarte pixels geworden. Nog zo’n verandering: de beelden van de camera’s wordt steeds vaker op een centraal punt verzameld. De winkelier kan met één druk op de knop de overval op zijn winkel live streamen naar de meldkamer van de politie. Die centralist kijkt ook live mee met de bodycams van het blauw op straat. En waar vroeger de beelden van een gemeentelijke toezichtscamera in het lokale politiebureau terechtkwamen, sturen steeds meer gemeenten de beelden vandaag de dag naar een regionaal uitkijkcentrum.

Geautomatiseerde analyse van beelden

De grootste verandering is nauwelijks in beeld, maar heeft zich ook al aangediend: de geautomatiseerde analyse van de beelden. Ook daar is technologie het verlengstuk van de mens. Tot nu toe waren de camera­systemen – en daarmee haar gebruikers – behoorlijk beperkt. Een mens kan niet meer dan een enkele monitoren tegelijkertijd in de gaten houden en het doorzoeken van historie was een handmatige en tijdrovende klus. Maar de technologie voor het geautomatiseerd herkennen van kentekens uit beelden is inmiddels wel al ingeburgerd. De politie zet die technologie in om de automobilist met een open­staande boete uit de verkeersstroom te vissen, de gemeente gebruikt het om te bepalen of je niet met een (te!) vervuilende auto in de binnenstad rondjes rijdt en Rijkswaterstaat wil je ermee verleiden de spits te mijden.

Het onmogelijke wordt mogelijk

De politie zette vorige week een volgende stap met de lancering van haar “systeem voor Automatische Gelaats­vergelijkingNieuwsbericht over het systeem voor gezichtsherkenning.”. Een foto van het gezicht van een arrestant wordt met een computer vergeleken met een grote berg van vele honderdduizenden foto’s waarvan bekend is wie er op staat. Effectief en handig, een systeem waarmee de politie efficiënter kan werken. Daar hoeft op zich niet veel mis mee te zijn, op voorwaarde dat de politie zich wel aan alle regels houdt. Zo moeten de foto’s die niet langer bewaard mogen worden, ook direct weer worden verwijderd. Of dat gebeurt mag je gerust cynisch over zijn: de politie overtreedt al meer dan zeven jaar die regels en blijft dat, volgens de minister, ook nog wel even doenMeer over de politie als grootste veelpleger..

Maar veel onheilspellender is dat dit systeem vooral een voorbode is van wat komen gaat: straks gaat de mens met computers geautomatiseerd beeldmateriaal doorzoeken op ieder ander denkbaar patroon: niet alleen gezichten, maar ook relaties, gedragingen en misschien ook wel emotiesNiet alleen gezichten herkennen, maar ook de emoties.. En niet alleen in een database met 800.000 foto’s die de politie nu heeft, maar ook op videobeelden, zowel in realtime als uit het verleden. En dan komt opeens alles bij elkaar. Dan is het ontzettend makkelijk om te achterhalen hoe iemand precies door het winkelcentrum liep. En of hij alleen was, in gezelschap van iemand anders of dat hij misschien wel werd gevolgd. En of een tas is overgedragen. En wat ook opeens makkelijk is: achterhalen of diezelfde persoon eerder in de week ook op Schiphol is geweestVideo over een systeem om objecten op een station te volgen.. Tot voor kort was het doorspitten van de meer dan 235.000 uur aan beeldmateriaal daarvan een onmenselijke taak.

Niet alles dat kan, moet ook kunnen.

Nu de ontwikkeling van technologie steeds vaker het onmenselijke binnen handbereik van de mens haalt moeten we ons afvragen waar de grens ligt. Niet alles dat kan, moet ook kunnen. Dat geldt zeker voor onze overheid die met zulke technologie elke burger volledig in beeld krijgt en zelf beetje bij beetje steeds machtiger wordt. Blind vertrouwen is dom: waarom noemt de politie haar eigen systeem eufemistisch een systeem voor “gelaatsherkenning” terwijl het gewoon gezichtsherkenning is? Ja, dat laatste klinkt creepy, maar is dat misschien ook. Zou de politie eigenlijk voor zichzelf bedacht hebben waar die grens precies ligt? Dan bedoelen we de ethische grens, niet de juridische – van die laatste weten we al dat de politie die lang niet altijd even serieus neemt.